草庐IT

Hadoop : NoSuchMethodException

全部标签

hadoop - 德鲁伊中的精确不同计数

我已经将数据从Hive加载到Druid中,但我没有使用任何HLL列。当我在Druid中运行COUNT(DISTINCTmycol)查询时,我没有得到准确的计数。计数似乎很接近,但与我在Hive中的计数不匹配。为什么Druid不能给出准确的计数,即使我没有提到任何关于HLL的内容?或者,有没有办法在Druid中获得精确的不同计数?找到2014年关于同一问题的旧帖子https://groups.google.com/forum/#!topic/druid-development/AMSOVGx5PhQ,我不确定当前版本的Druid是否支持精确的不同计数。 最佳答

hadoop - 编写 Flume 配置,将不断增长的文件上传到 HDFS

我是Flume的新手,在配置方面遇到了一些问题。我在OracleVirtualBox上使用HortonworksSandboxHDP2.6.5(如果这很重要)。我的VM中有一个文本文件input_data.txt:input_data.txt的内容如下所示:我使用以下命令来创建并逐渐增加输入:catinput_data.txt|whilereadline;doecho"$line";sleep0.2;done>output.txt我想要实现的目标:1)编写一个Flume配置,将不断增长的output.txt文件上传到HDFS2)如果可能-HDFS中的目标文件必须在每次源文件(/usr/

hadoop - 该示例如何在 Oozie 最佳情况下找到库?

根据Oozie的文档,我尝试在Oozie上运行一个map-reduce的例子。众所周知,'workflow.xml'(和'coordinator.xml')应该在HDFS中。然后输入命令:ooziejob-ooziehttp://localhost:11000/oozie-configexamples/apps/map-reduce/job.properties-run。而且我也知道“job.properties”应该在本地文件系统中。但有两件事让我感到困惑:1.为什么workflow.xml中的jar或class变量来自HDFS的lib目录?2.oozie-examples-4.3.

hadoop - 辅助名称节点是否也更新存储在 NFS 中的元数据?

我正在阅读“Hadoop:权威指南”。Hadoop2.x之前作者是这样解释容错的Withoutthenamenode,thefilesystemcannotbeused.Infact,ifthemachinerunningthenamenodewereobliterated,allthefilesonthefilesystemwouldbelostsincetherewouldbenowayofknowinghowtoreconstructthefilesfromtheblocksonthedatanodes.Forthisreason,itisimportanttomakethena

hadoop - SQL 中的动态聚合 (Hive)

我有两张table。表A有3列:用户标识、开始日期和结束日期。带有事件和日期时间戳的表B。我想根据表A将表B汇总到开始日期和结束日期之间的日期时间。所以类似...selecta.userid,count(distinctb.eventid)aseventsfromtableainnerjointablebona.userid=b.useridandb.datetimebetweena.starttimeandb.endtimegroupbya.userid但Hive不喜欢那样...我正在使用HadoopHortonWorks。非常感谢任何指导! 最佳答案

hadoop - cp 命令在 Hadoop 中如何工作?

我正在阅读“Hadoop:权威指南”并解释我的问题让我引用书中的内容distcpisimplementedasaMapReducejobwheretheworkofcopyingisdonebythemapsthatruninparallelacrossthecluster.Therearenoreducers.Eachfileiscopiedbyasinglemap,anddistcptriestogiveeachmapapproximatelythesameamountofdatabybucketingfilesintoroughlyequalallocations.Bydefau

hadoop - 如何使用 BDM(Informatica) 将文件从本地文件系统复制到 hdfs 文件系统?

我正在使用Informatica版本10.2.1并使用BDM我想将文件从本地文件系统复制并粘贴到HDFS文件系统。我是BDM的新手,不知道该怎么做。目前我已经创建了一个对象并填充了Read和Write参数。我同时使用InputType和OutputType作为command并发出命令hdfsdfs-copyFromLocal-f/tmp/x。csv/tmp/x非常感谢任何帮助。编辑粘贴错误图片。 最佳答案 Informatica中的Command输入类型用于读取数据。像catfilename.txt流出数据以供Informatica

java - Windows 中的 Hadoop 错误

我已经成功安装了hadoop。但是,当我运行hadoop命令时,它会提示以下错误:C:\>hadoopversion'JAVA_HOME'isnotrecognizedasaninternalorexternalcommand,operableprogramorbatchfile.Hadoop2.7.3Subversionhttps://git-wip-us.apache.org/repos/asf/hadoop.git-rbaa91f7c6bc9cb92be5982de4719c1c8af91ccffCompiledbyrooton2016-0818T01:41ZCompiledwi

hadoop - 为了加快配置单元进程,如何使用 tez 调整映射器和缩减器数量

我尝试使用tez处理大数据(约150GB)的过程(句子的单词标签),但问题是它花了很多时间(1周或更多),然后我试图指定映射器的数量。虽然我设置了mapred.map.tasks=2000,但我无法阻止mapper被设置为150左右,所以我不能做我想做的事。我在oozie工作流文件中指定映射值并使用tez。如何指定映射器的数量?最后想加快进程,不用tez也可以。另外,我想用reducer统计标记的句子,也很花时间。而且,我还想知道如何调整内存大小以使用每个映射器和缩减器进程。 最佳答案 Inordertomanuallysetthe

java - hadoop 使用类名提交作业,为什么需要 job.setJarByClass()?

例如我有一个hadoop字数统计程序(来自互联网),字数统计.java:publicstaticclassWordCount{publicstaticvoidmain(String[]args)throwsException{....Jobjob=Job.getInstance(newConfiguration(),"wordcount");job.setJarByClass(WordCount.class);//Why?}}像这样将它编译成一个jar并提交给yarn:hadoopjarwordcount.jarWordCount[input-hdfs][output-hdfs]在这个